Cảm hứng cho bài hát tới khi Harrison đọc cuốn sách Kinh Dịch, anh nhớ lại "Tôi lúc đó vẫn dựa trên quan điểm phương Tây khi cho rằng mọi thứ đơn thuần chỉ là trùng hợp... đối lập với quan điểm phương Đông cho rằng mọi sự vật đều liên quan đến nhau."[4]

“

"Tôi viết ca khúc khi ở nhà của mẹ tôi ở Warrington. Tôi lúc đó đang nghĩ tới cuốn Kinh Dịch của Trung Quốc... Quan điểm phương Đông chiếm hết tâm trí tôi, và mọi thứ lúc đó không còn là điều trùng hợp nữa, mọi điều dù nhỏ nhất đều do chủ ý cả. "While My Guitar Gently Weeps" là một bài hát theo nguyên tắc đó. Tôi nghĩ mình sẽ viết một bài hát dựa theo bất kể điều gì tôi thấy từ một cuốn sách nào đó, vì điều đó phải có liên quan tới một khoảnh khắc, một thời khắc nào đó. Tôi cầm đại lấy một cuốn sách, mở ra và thấy "gently weeps" (khóc một cách mềm mại), rồi tôi đặt cuốn sách xuống và viết những câu đầu tiên."[5]

”

"Có vài từ ngữ thay đổi cho tới tận lúc chúng tôi thu âm hoàn chỉnh." Harrison nói. Chẳng hạn:

I look at the trouble and see that it's ragingWhile my guitar gently weepsAs I'm sitting here, doing nothing but ageingStill, my guitar gently weeps

Hay là:

The problems you sow, are the troubles you're reapingStill, my guitar gently weeps

Và cả:

I look from the wings at the play you are stagingWhile my guitar gently weepsAs I'm sitting here, doing nothing but ageingStill, my guitar gently weeps

Những phần lời này có thể được nghe qua những bản thu đầu tiên của ca khúc được thu trong album tuyển tập năm 1996 Anthology 3, đồng thời cũng là phần nền cho album Love (2006) với phần dây hòa âm bởi George Martin[6][7].

Ban nhạc đã phải thu âm ca khúc này rất nhiều. Bản 1 được ghi vào ngày 25 tháng 7 năm 1968 với chiếc guitar J-200 của Harrison ghi đè với harmonium[8]. Những buổi thu ngày 16 tháng 8, 3 và 5 tháng 9 có cả phần guitar chơi ngược[1] (tương tự như cách Harrison chơi trong "I'm Only Sleeping"[9]), song anh không cảm thấy hài lòng[1]. Ngày 6 tháng 9, anh có tới Surrey, London và đề nghị Eric Clapton tới chơi lead cho ca khúc. Clapton sửng sốt trả lời "Chưa có ai dám chơi một ca khúc của The Beatles cả!"[10], nhưng rồi cuối cùng Harrison cũng thuyết phục được Clapton tới chơi với việc sử dụng cây Gibson Les Paul "Lucy" của mình vào chiều ngày hôm đó[11]. Harrison cũng nói rằng trong quá trình thu, sự có mặt của Clapton cũng đã tạo ra hiệu ứng tích cực với toàn bộ nhóm: "Điều đó khiến mọi người cố gắng thêm chút, cho dù rằng tất cả đều đã ở trạng thái tốt nhất."[11] Clapton mong muốn có nhiều hiệu ứng "Beatley", vậy nên âm thanh được chuyển qua một hệ thống chỉnh âm tự động được điều chỉnh bởi kỹ thuật viên Chris Thomas "ban đầu Eric không thích thứ âm thanh vốn giống với anh trước đây. Vậy nên tôi ngồi đó và lắng nghe tất cả yêu cầu, và họ muốn nó thực sự đạt tới mức tối đa. Và đó là những gì tôi đã làm."

Đây cũng là một trong số những ca khúc của Album trắng mà Paul McCartney đã chơi đè cây Fender Jazz Bass (cũng dùng trong "Glass Onion" và "Yer Blues") với cây Höfner 500/1 và Rickenbacker 4001 của mình[12].